Khi đám cưới của con trai hoàn thành và nền hòa bình với Đế quốc Byzantine đã được định đoạt, Otto đã đưa hoàng tộc trở về Đức vào tháng 8 năm 972.[87] Vào mùa xuân năm 973, Hoàng đế đã đến thăm Sachsen và tổ chức lễ Chúa nhật Palm ở Magdeburg. Cũng trong buổi lễ năm trước, Phiên hầu tước Hermann Billung, cận thần và người cai trị của Otto ở Sachsen trong những năm ở Ý đã được Đức Tổng Giám mục Adalberto của Magdeburg công nhận như một vị vua.[103]

Kỷ niệm lễ Phục sinh với một hội nghị lớn ở Quedlinburg, Hoàng đế Otto là người đàn ông quyền lực nhất ở châu Âu.[104] Theo Thietmar xứ Merseburg, Otto đã được thừa nhận bởi các "công tước Mieszko [của Ba Lan] và Boleslav [của Bohemia] và các đại sứ từ Hy Lạp [Byzantium], Benevento [Roma], người Magyar, người Bulgar, người Đan Mạch và người Slav".[105] Đại sứ đến từ Anh và Hồi giáo Tây Ban Nha đã đến cùng năm đó.[105] Để đánh dấu lễ cầu yên, Otto đã đến cung điện của mình tại Memleben, nơi cha ông đã chết 37 năm trước. Trong khi ở đó, Otto bị bệnh nặng vì sốt và sau khi nhận các bí tích cuối cùng, ông qua đời vào ngày 7 tháng 5 năm 973 ở tuổi 60.[106]

Sự chuyển giao quyền lực sang đứa con trai mười bảy tuổi Otto II đã diễn ra suôn sẻ. Vào ngày 8 tháng 5 năm 973, các lãnh chúa của Đế quốc đã xác nhận Otto II là người cai trị mới của họ. Otto II đã sắp xếp một đám tang ba mươi ngày hoành tráng, cha ông được chôn cất bên cạnh người vợ đầu Edgitha ở Nhà thờ Magdeburg.[107]